У компаний Microsoft и NVIDIA, по сообщению The Information, возникли разногласия по поводу использования новейших ускорителей B200 на архитектуре Blackwell. NVIDIA настаивает на том, чтобы клиенты приобретали эти изделия в составе полноценных серверных стоек, тогда как Microsoft с этим не согласна.

Отмечается, что NVIDIA, удерживающая приблизительно 98 % рынка ускорителей для ЦОД, стремится контролировать использование своих продуктов. В частности, компания накладывает ограничения в отношении дизайна ускорителей, которые партнёры создают на чипах NVIDIA.

Во время презентации Blackwell глава NVIDIA Дженсен Хуанг (Jensen Huang) неоднократно указывал на то, что теперь минимальной единицей для развёртывания должен стать суперускоритель GB200 NVL72. То есть NVIDIA призывает клиентов приобретать вместо отдельных ускорителей целые стойки и даже кластеры SuperPOD. По заявлениям компании, это позволит повысить ИИ-производительность благодаря оптимизации всех компонентов и их максимальной совместимости друг с другом. Кроме того, такая бизнес-модель позволит NVIDIA получить дополнительную выручку от распространения серверного оборудования и ещё больше укрепить позиции на стремительно развивающемся рынке ИИ.

Источник изображения: NVIDIA

Однако у Microsoft, которая оперирует огромным количеством разнообразных ускорителей и других систем в составе своей инфраструктуры, возникли возражения в отношении подхода NVIDIA. Сообщается, что вице-президент NVIDIA Эндрю Белл (Andrew Bell) попросил Microsoft приобрести специализированные серверные стойки для ускорителей Blackwell, но редмондский гигант ответил отказом. По заявлениям Microsoft, решения NVIDIA затруднят корпорации внедрение альтернативных ускорителей, таких как AMD Instinct MI300X.

Ещё один вариант OCP-стойки с СЖО (Источник изображения: Microsoft)

Дело в том, что форм-факторы стоек NVIDIA и стоек Microsoft различаются на несколько дюймов. Из-за этого могут возникнуть сложности с изменением конфигурации и модернизацией, предусматривающей использование конкурирующих компонентов. Так, Microsoft использует единую базовую платформу и для ускорителей NVIDIA, и для ускорителей AMD. Microsoft эксплуатирует вариант стоек OCP и старается максимально унифицировать инфраструктуру своих многочисленных дата-центров. NVIDIA, в конце концов, согласилась с доводами Microsoft и пошла на уступки, но это, похоже, не последнее подобное разногласие между компаниями.

Облачный гигант Microsoft намерен инвестировать €6,69 млрд ($7,16 млрд) в постройку в северо-восточном испанском регионе Арагон новых дата-центров. Reuters сообщает, что эта область Испании становится одним из ключевых вычислительных хабов на территории Европы.

По данным региональных властей, американский инвестор подал заявку на получение разрешения на строительство дата-центров вблизи испанской Сарагосы — ранее о вероятном возведении новых ЦОД недалеко от города уже сообщали местные СМИ. Как сообщают представители местного самоуправления, реализация проекта растянется на 10 лет. Ранее Microsoft анонсировала инвестиции в ЦОД на $2,1 млрд., а на днях был запущен первый облачный регион Azure в Мадриде.

Вероятно, Microsoft намерена угнаться за главным конкурентом — AWS, также имеющей планы на Арагон. Только в прошлом месяце облачное подразделение Amazon объявило о намерении вложить в строительство ЦОД в регионе €15,7 млрд в течение 10 лет. В AWS утверждают, что ЦОД компании будут полностью питаться за счёт возобновляемой энергии, благо в провинции постоянно дуют сильные ветры.

Источник изображения: Gerard Albanell / Unsplash

Сарагоса считается пятым по величине городом Испании и давно стала крупным логистическим и транспортным хабом, удачно расположенным между Мадридом и Барселоной, крупнейшими городскими агломерациями страны. Кроме того, город находится в самом центре коридора, связывающего Пиренейский полуостров с Францией и другими странами Европы.

По прогнозам IDC, новая облачная и ИИ-инфраструктура в Испании пополнит ВВП страны на €10,7 млрд и будет способствовать появлению 77 тыс. новых рабочих мест в 2024–2030 гг.

Microsoft снова прибегнет к помощи Oracle для того, чтобы помочь OpenAI расширить вычислительные мощности. По данным The Register, компания арендует ИИ-мощности у Oracle Cloud Infrastructure (OCI). Microsoft уже вложила в OpenAI огромные средства и, по некоторым данным, владеет почти половиной компании, но, похоже, ресурсов Azure не хватает для того, чтобы ИИ-стартап смог свободно расти.

В ходе последнего квартального отчёта Oracle заявлялось, что компания скоро построит «очень-очень большой дата-центр», около половины которого будет использовать Microsoft. Предполагается, что в нём будет использовано немало ускорителей NVIDIA с СЖО, предназначенных в первую очередь для обучения ИИ-моделей. ИИ-инфраструктура Oracle второго поколения будет существенно производительней первого и спрос на неё будет велик, говорит Oracle.

Так, OCI Supercluster сможет объединить до 64 тыс. суперускорителей NVIDIA Blackwell GB200 посредством RDMA-интерконнекта с ультранизкой задержкой и получит высокопроизводительные хранилища. Суперкластером помимо Microsoft будут пользоваться Adept, Modal, MosaicML, NVIDIA, Reka, Suno, Together AI, Twelve Labs и xAI — Илон Маск (Elon Musk) уже объявил о готовности потратить $10 млрд на облачные серверы Oracle. При этом Oracle предлагает собственный сервис OCI Generative AI, который является конкурентом Azure OpenAI.

Источник изображения: Pawel Nolbert/unsplash.com

Первые слухи о взаимном использовании облачных ресурсов Microsoft и Oracle появились год назад. Впоследствии Microsoft действительно арендовала ускорители NVIDIA у Oracle. Кроме того, компании стали значительно ближе к другу к другу — Oracle разместила свои комплексы Exadata в Azure. Аналогичное решение вскоре появится и в Google Cloud Platform — сервис последней Cross-Cloud Interconnect будет доступен в 11 облачных регионах OCI, а до конца 2024 года должен стартовать проект Oracle Database@Google Cloud.

В последнем квартале быстрее всего у Oracle росла выручка от облачных сервисов лицензионной поддержки. В компании заявляют о крупнейших контрактах в истории на фоне спроса на обучение ИИ-моделей и рекордных уровнях продаж сервисов OCI. При этом клиенты переходят от разовых закупок на многолетнее облачное обслуживание, чего Oracle и добивалась. Обязательства компании (RPO) уже достигли $98 млрд.

В ближайшем будущем Oracle будет наращивать производительность ИИ-инфраструктуры, чтобы клиенты могли пользоваться актуальными моделями, и строить всё больше крупных дата-центров. Ёмкость некоторых ЦОД приблизится к 1 ГВт. По слухам, Microsoft и OpenAI в марте 2024 года изучали возможность строительства кампуса на 5 ГВт за $100 млрд. Кроме того, как считается, Microsoft является одним из крупнейших заказчиков CoreWeave. Прямо сейчас Microsoft стремительно наращивает ёмкость своих ЦОД и ежемесячно вводит в строй по пять ИИ-суперкомпьютеров.

Корпорация Microsoft, по сообщению ресурса Datacenter Dynamics, открыла свой первый облачный регион в Испании. Площадка ЦОД располагается в Мадриде: она будет обслуживать коммерческих и государственных заказчиков, предоставляя в том числе услуги в области ИИ.

Регион получил название Spain Central. Он создан в рамках масштабного проекта, предусматривающего инвестиции в размере $2,1 млрд в развитие облачной и ИИ-инфраструктуры в Испании. Речь идёт не только о строительстве новых дата-центров, но и о цифровой трансформации государственного и коммерческого сегментов в целом.

Источник изображения: Microsoft

Spain Central будет предоставлять различные сервисы в области вычислений, хранения информации, анализа данных, повышения кибербезопасности, генеративного ИИ и пр. О намерении использовать платформу уже заявили Abanca, Aciturri, Banc Sabadell, Banco Santander, Bankinter, BBVA, CaixaBank и многие другие компании и организации.

Партнёры Microsoft, включая Accenture, Capgemini, DXC Technology, Fujitsu, Minsait, KPMG, Kyndryl, NTT Data, SEIDOR и Telefónica Tech, присоединились к стратегической программе Strategic Partner Program, которая направлена на цифровую трансформацию испанских организаций. В частности, планируется перенос рабочих нагрузок клиентов на платформу Spain Central.

«Новый ЦОД-регион Microsoft обеспечит передовые и безопасные решения в области ИИ для заказчиков в Испании и других странах Европы», — отметил Хосе Луис Эскрива (José Luis Escrivá), министр цифровой трансформации Испании.

Microsoft активно развивает облачную инфраструктуру. Корпорация недавно сообщила о планах вложить $1,7 млрд в облака и ИИ в Индонезии. Аналогичные проекты Microsoft реализует в Таиланде и во Франции. Кроме того, редмондский гигант готовится к экспансии в Азиатско-Тихоокеанском регионе. Microsoft также создаёт суверенное облако для государственных органов ОАЭ.

Компания Veeam Software, специализирующаяся на разработке решений резервного копирования и управления данными, представила облачную службу хранения данных Veeam Data Cloud Vault, использующую публичное облако Azure. Новое предложение Vault — «хранилище как услуга» (Storage as a Service, STaaS) — может использоваться для хранения данных, управления и доступа к ним в рамках подписки с предсказуемой ценой.

У заказчиков, по словам компании, отпадает необходимость в разработке, внедрении и управлении облачной или физической инфраструктурой хранения, основанной на принципах нулевого доверия. Решение интегрировано с Veeam Backup & Replication и предлагает полностью управляемое, предварительно настроенное, неизменяемое, зашифрованное и логически изолированное хранилище. Новинка дополняет предложения других провайдеров, таких как ExaGrid, ObjectFirst, PowerProtect, Scality и т.д.

Источник изображения: Veeam

Пользователи смогут напрямую писать резервные копии Veeam Data Platform в Veeam Vault или же дополнить локальное хранилище в рамках стратегии резервного копирования 3-2-1-1-0 с помощью копирования и/или многоуровневого хранения. Vault основано на уровне «горячего доступа» (Azure Blob Hot LRS) с немедленным доступом к данным. Предложение использовать его как часть стратегии 3-2-1-1-0 означает, что:

• должно быть как минимум три копии данных, включая рабочую;
• следует использовать как минимум два разных носителя данных, например, ленточное, дисковое и/или облачное хранилище;
• минимум одна из копий должна храниться отдельно от рабочих данных и основного бэкапа;
• минимум одна копия должна храниться оффлайн (с воздушным зазором) или, если она находится в публичном облаке, должна быть неизменяемой;
• резервное копироване должно завершаться без ошибок (количество ошибок — 0).

Вскоре Veeam добавит в Vault ещё две функции. Во-первых, появятся более холодные и архивные уровни объектного хранилища, особенно для старых и/или вторичных резервных копий, где более низкая производительность восстановления ради экономии средств при долгосрочногм хранении. Во-вторых, появится «централизованное управление и мониторинг всех аспектов Veeam Vault посредством более тесной интеграции с единым пользовательским интерфейсом Veeam Data Platform».

Облачное хранилище Veeam Data Cloud Vault доступно через Azure Marketplace с помесячной оплатой за кажлый Тбайт. Цена отличается в зависимости от региона и включает в себя оплату хранилища, вызовы API для записи/чтения, а также исходящий трафик.

Корпорация Microsoft, по сообщению ресурса Business Insider, намерена сократить сотни сотрудников в различных подразделениях своей облачной платформы Azure. Кроме того, как отмечается, численность персонала в облачной инфраструктуре уменьшит компания Google.

По имеющимся данным, Microsoft уволит более тысячи человек в подразделениях Azure for Operators и Mission Engineering, которые являются частью группы Strategic Missions and Technologies (SMT). Она была сформирована в 2021 году с целью проведения исследований и разработок в таких областях, как квантовые вычисления и космические технологии.

Источник изображения: Google

Согласно сведениям, полученным от одного из осведомлённых источников, только в подразделении Azure for Operators могут быть сокращены до 1500 специалистов. С чем именно связано уменьшение штата, не уточняется. По слухам, причиной может быть желание Microsoft сфокусироваться на технологиях ИИ. По крайней мере, на это указывают комментарии руководителя SMT Джейсона Зандера (Jason Zander).

В самой корпорации заявляют, что организационные и кадровые изменения являются необходимой и систематической частью управления бизнесом. «Мы продолжаем расставлять приоритеты и инвестировать в стратегические области для обеспечения роста в будущем, а также для поддержки клиентов и партнёров», — сообщили представители редмондской компании.

В свою очередь, Google увольняет не менее 100 работников в нескольких командах своего облачного подразделения. О сокращениях, в частности, уведомлены сотрудники в отделах продаж, консалтинга, стратегии выхода на рынок, операций и проектирования в Азиатско-Тихоокеанском регионе. Нужно отметить, что недавно облачная платформа Amazon Web Services (AWS) объявила о намерении избавиться от сотен сотрудников. Увольнения затронут отделы продаж, розничной торговли и др.

Microsoft планирует инвестировать $3,2 млрд в ИИ-системы и облачную инфраструктуру в Швеции. По данным Reuters, это крупнейшее вложение в соответствующие проекты в странах Северной Европы, богатых «зелёной» энергией. Компания закрепит присутствие в стране, добавив 20 тыс. ускорителей в свои три дата-центра. Компания намерена использовать новые ускорители NVIDIA и AMD и, возможно, чипы собственной разработки.

По словам президента IT-гиганта Брэда Смита (Brad Smith), подобная инициатива наглядно демонстрирует веру компании в то, что Швеция способна извлечь выгоду от внедрения ИИ. Microsoft обещает обучить 250 тыс. человек «основным ИИ-навыкам» в школах, организациях, государственном и других секторах в ближайшие три года. Смит также подчеркнул, что Швеция может считаться одной из самых инновационных стран.

Северная Европа стала приоритетной площадкой для крупных потребителей энергии благодаря наличию больших резервов для добычи «чистого» электричества. Дата-центры потребляют много энергии и конкурируют за неё с прочими отраслями экономики, желающими использовать преимущества региона, тарифы на электроэнергию в котором считаются одними из самых низких в мире. Ожидается, что в ближайшие десять лет новые проекты более чем вдвое увеличат спрос на электроэнергию здесь.

Источник изображения: Raphael Andres/unsplash.com

Когда речь заходит о возможном энергетическом кризисе, в Microsoft заявляют, что компания не просто инвестирует в шведские ЦОД, но и сделает крупные вложения в возобновляемую энергию. В частности, компания приобрела уже подписала контракт на поставку около 1 ГВт такой энергии в Швеции и подписала контракт с местной госкомпаний Vattenfall AB. При это в Европе это далеко на самые крупные инвестиции компании. Так, во Франции она потратит $4,31 млрд, в Германии — $3,4 млрд, в Испании — $2,1 млрд. А Лондон компания вообще назвала европейской столицей ИИ, здесь она инвестирует $3,15 млрд.

Microsoft и G42, базирующаяся в ОАЭ, объединили усилия для постройки дата-центра в Кении. Его электропитание будет обеспечиваться за счёт геотермальной энергии. Datacenter Knowledge сообщает, что это лишь начальная часть многолетнего плана, в рамках которого будут значительно увеличены облачные мощности на востоке Африки. В конце прошлого года Кения уже заявляла о намерении направить $4,5 млрд на «зелёные» проекты: 200-МВт ЦОД EcoCloud, геотермальную энергетику и умное сельское хозяйство.

G42 займётся инвестициями на первом этапе и будет отвечать за строительство объекта в Олкарии, где расположено немало геотермальных источников. Это важно для континента, где перебои с электроэнергией — скорее норма, чем исключение. Кроме того, проект отвечает планам Microsoft по декарбонизации своей деятельности. Первая очередь обеспечит 100 МВт и будет введена в эксплуатацию в ближайшие пару лет. Для полной реализации проекта потребуется 1 ГВт, причём пока не сообщается, сколько времени пройдёт до ввода всех объектов в эксплуатацию и во сколько это обойдётся.

Microsoft намерена использовать первую очередь объекта для создания восточноафриканского региона Azure. Пока ближайший к клиентам из Кении ЦОД Microsoft расположен в Южной Африке. В рамках новой сделки кенийские власти согласились перенести больше своих сервисов в облака, что, по расчётам Microsoft, будет стимулировать спрос в целом. Новый ЦОД предложит ИИ-сервисы и облачные вычисления и ближайшим странам вроде Уганды, Руанды и Танзании.

Источник изображения: Matt Palmer/unsplash.com

Инициатива Microsoft и G42 анонсирована накануне встречи американского и кенийского президентов, намеренных объявить об укреплении связей между странами для противостояния китайскому и российскому влиянию в регионе. Компании вроде Huawei активно вкладывают деньги в Африку, создавая ЦОД, интернет-сервисы, системы слежения и умные энергосети. А экспансия в Кении — лишь часть проекта ОАЭ по получению влияния в Африке, куда Эмираты готовы инвестировать $100 млрд.

В апреле Microsoft согласилась инвестировать $1,5 млрд в G42. Активное участие в сделке приняла администрация президента США — предположительно, G42 согласилась прекратить ведение бизнеса с компаниями КНР, включая Huawei, и обязалась использовать вместо китайских американские технологии. При этом президент Microsoft Брэд Смит (Brad Smith) должен войти в состав совета директоров G42, а последняя будет использовать облако Azure для своих ИИ-проектов.

В Кении G42 будет работать над большими языковыми моделями для суахили и английского, а также французского и других локальных языков. Также компания будет создавать ИИ-модели для сельского хозяйства и других сфер деятельности, а Microsoft будет отвечать в том числе за киберзащиту местных клиентов и поможет обеспечить широкополосным интернетом около 40 % населения Кении уже к концу следующего года. Ожидается, что прибыль партнёры начнут получать через несколько лет.

Microsoft на фоне стремительного развития ИИ активно расширяет свой вычислительный потенциал: каждый месяц корпорация развёртывает эквивалент пяти суперкомпьютеров Eagle. Об этом, как сообщает ресурс Datacenter Dynamics, заявил технический директор облачной платформы Azure Марк Руссинович (Mark Russinovich).

Комплекс Microsoft Azure Eagle в нынешнем рейтинге TOP500 занимает третье место с FP64-производительностью 561,2 Пфлопс — это самый мощный в мире облачный суперкомпьютер. В системе задействованы 14 400 ускорителей NVIDIA H100, а также интерконнект NVIDIA InfiniBand NDR. «Сегодня мы развёртываем эквивалент пяти таких суперкомпьютеров каждый месяц. Наша экосистема ИИ теперь на несколько порядков больше и меняется каждый день и каждый час», — сказал Руссинович на конференции Microsoft Build.

Таким образом, ежемесячно Microsoft вводит в эксплуатацию вычислительные мощности, сопоставимые с теми, которые могут обеспечить 72 000 ускорителей Н100. В общей сложности это 2,8 Эфлопс ресурсов, которые распределены по расширяющейся сети дата-центров корпорации. Руссинович отметил, что общая протяжённость соединений InfiniBand в этих ЦОД такова, что ими можно было бы как минимум пять раз опоясать Землю. То есть, это не менее 200 тыс. км.

Источник изображения: Microsoft

О стремительном расширении вычислительных мощностей также говорит технический директор Microsoft Кевин Скотт (Kevin Scott). Он не стал приводить конкретные цифры, но дал наглядное представление. Так, ИИ-суперкомпьютер, который корпорация в 2020 году создала для OpenAI GPT-3, Скотт сравнил с акулой. Система следующего поколения, разработанная в 2022-м для обучения GPT-4, — это косатка, которая в два раза длиннее и в три раза тяжелее больших белых акул. Нынешняя система Microsoft сравнивается с синим китом: он более чем в два раза длиннее и примерно в 25 раз тяжелее косатки.

В настоящее время Microsoft и OpenAI обсуждают проект строительства масштабного кампуса ЦОД для решения самых сложных и ресурсоёмких задач в области ИИ. Проект под названием Stargate стоимостью около $100 млрд предполагает создание ряда объектов, суммарная мощность которых может достигать 5 ГВт. Компания действительно стремительно наращивает ёмкость своих ЦОД, добавляя порядка 200 МВт ежемесячно.

Корпорация Microsoft сообщила о доступности инстансов Azure ND MI300X v5 на базе ускорителей AMD Instinct MI300X. Отмечается, что это качественно новое семейство виртуальных машин, предлагающее максимально возможный объём памяти HBM и ведущей в отрасли производительности.

О подготовке инстансов ND MI300X v5 компания Microsoft объявила в ноябре прошлого года. В составе одной виртуальной машины объединены восемь ускорителей со 192 Гбайт памяти HBM3, соединённых между собой посредством Infinity Fabric 3.0, а с хостом — по PCIe 5.0. Таким образом, общий объём HBM3 достигает 1,5 Тбайт, а пропускная способность — 5,3 Тбайт/с.

Отмечается, что виртуальные машины ND MI300X v5 используют открытую программную платформу AMD ROCm, которая предоставляет полный набор инструментов и библиотек для разработки и развёртывания ИИ. Платформа ROCm поддерживает популярные фреймворки, такие как TensorFlow и PyTorch, а также ИИ-библиотеки Microsoft, включая ONNX Runtime, DeepSpeed и MSCCL. Кроме того, ROCm упрощает перенос моделей с одной платформы на другую, что обеспечивает снижение затрат.

Источник изображения: Microsoft

Компания Hugging Face портировала свои модели на ND MI300X v5 без какого-либо изменения кода. Это позволило увеличить производительность в 2–3 раза по сравнению с AMD Instinct MI250.